Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling
大规模好友推荐图神经网络:多哈希用户嵌入与时序邻居采样
🧭 大规模图神经网络 · 多哈希嵌入与时间邻居采样 ★ 深度解读
AI VK
用多哈希嵌入压缩98% ID表、以timestamp-sorted CSR+二分搜索加速时序邻居采样,线上好友添加提升16%
📌 工作参考价值(4 点)
- 高基数 ID 特征可优先尝试 multi-hash:用 k=3 个独立哈希映射到共享表 B=2^21、d=256,拼接后线性投影,ID 表从 203GB 降到 2GB,且离线 ROC-AUC 略高于 full table(0.6278 vs 0.6246),存在隐式正则化收益。电商/广告中的用户 ID、店铺 ID、类目交叉等高基数特征可复用此套路。
- 时序图训练务必做时间邻居采样,否则未来边泄漏导致明显掉点(本文 ROC-AUC 降 0.037)。工程上用 timestamp-sorted CSR + lower_bound 二分搜索定位有效前缀再采样,将每 batch 采样时间从 1473ms 降到 595ms,接近非时序成本。对用户行为序列、社交/互动图等动态图尤其有用。
- 大规模图训练采用 CPU 采样与 GPU 训练解耦的 producer-consumer 流水线,CSR 索引用 32-bit 存邻居 ID 和时间戳、64-bit 存 offset,可把 225GB 图压缩到单机 8×A100 可承载;资源受限团队可直接借鉴该存储与调度方案。
- GNN 在线推理成本高,可改为周期性离线刷新用户嵌入,服务时作为特征供下游 GBDT ranker 读取;同时用 query/candidate 双头区分同一用户作为请求方与候选方的不同角色,该技巧对双塔召回/排序也有迁移价值。